iT邦幫忙

2026 iThome 鐵人賽

DAY 12
0
AI Engineering

企業知識檢索與 RAG 工程:標註、微調、混合檢索、Rerank 與可重現評測系列 第 12 篇

Day 12|Query Normalization 與 Metadata Filtering:便宜但常被忽略的提升

  • 分享至 

  • xImage
  •  

前一篇處理「Chunking 不是越碎越好:文件單位如何改變檢索」,這篇進一步討論「Query Normalization 與 Metadata Filtering:便宜但常被忽略的提升」。共同的量測條件是前後比較的基礎。

今天要回答的問題

測試規則化、縮寫/別名、時間或類別 filter,在不換模型下能改善多少。

工程邊界

Chunk 與 Metadata 是 Retriever 看世界的方式

Chunk 太大會混入無關內容,太小則失去上下文;固定字數也未必適合表格、章節與程式碼。最好先依文件結構切,再以 token 長度限制。

Query normalization 與 metadata filtering 往往是低成本提升:日期、產品線、文件類型、版本、權限若能先縮小候選集合,就不需要讓 embedding 在錯誤空間裡硬分辨。

一個可以直接重現的起點

今天的實作原則

驗證時先固定環境與輸入,每次只改一個變因,並同時記錄操作方法與判定標準。

用 2×2 實驗拆開兩種改動

這裡以「分別啟用 normalization 與 metadata filter 做 2x2 比較」為比較目標,只保留 baseline、candidate 與逐項差值;evaluate 再接到實際評測程式。

METRICS = ('quality', 'candidate count', 'latency', 'filter misses')
baseline = evaluate("baseline", metrics=METRICS)
candidate = evaluate("candidate", metrics=METRICS)

for metric in METRICS:
    delta = candidate[metric] - baseline[metric]
    print(f"{metric}: {delta:+.4f}")

驗證與落地方式

驗證可從「分別啟用 normalization 與 metadata filter 做 2x2 比較」開始。比較前先凍結 corpus、query set、qrels、資料切分與評測程式,確保實驗只改動目標元件。若 index、候選數或前處理同時改變,最後的分數差異就無法歸因,容易把資料變動誤認成模型進步。

這篇優先比較:quality、candidate count、latency、filter misses。除了整體平均,也要保留逐題結果與 query 類型,分辨改善集中在哪些情境、哪些案例反而退步。品質指標還要和 latency、記憶體、索引大小或單次成本一起閱讀,才能判斷提升是否值得帶進 production。

常見誤判

  • 只公布最高分,沒有保留 baseline、負面結果與信賴區間,難以判斷改善是否穩定。
  • 在相同資料上反覆調參又回頭評分,test set 會逐漸變成隱性的 training set。
  • 只看 retrieval 或 generation 的單層指標,忽略錯誤可能沿 pipeline 傳遞,也可能被後段暫時掩蓋。

上線前檢查

每次實驗都應能追回資料版本、模型、index、config 與評測程式版本。上線前再以未參與調參的案例做一次回歸測試,並保留最差案例供 error analysis。若品質提升不足以抵銷延遲、成本或維護複雜度,維持較簡單的 baseline 通常更可靠。

如何閱讀結果

結果應先看逐題變化,再看整體分數。若平均值上升,卻只來自少數容易題,或關鍵 query 類型持續退步,仍不適合直接替換 baseline。每個明顯升降的案例都應回到候選文件、排名與輸入特徵,確認變化符合原先假設。

離線評測通過後,還要檢查線上條件:新文件加入後是否需要重建 index、cache 是否造成舊結果、查詢分布是否漂移。只有資料生命週期也能被管理,實驗中的品質提升才可能持續。

結果判讀

判讀不只看最大或最漂亮的數字。這一天真正要回答的是:確認便宜規則是否改善特定 query 而沒有誤殺。

如果核心指標改善,但錯誤率、尾端延遲、資源成本或恢復能力變差,這代表取捨,而不是無條件進步。相反地,沒有改善也不是無效結果;至少能排除一條看似合理、實際上不值得增加複雜度的路。

今天的結論

今天的工程判斷是:確認便宜規則是否改善特定 query 而沒有誤殺。無論結果支持或否定原本假設,都必須保留完整條件,才能和下一天的實驗串在一起。

下一篇將處理:Hard Negative:Fine-tune 前最重要的資料工程。


參考資料


上一篇
Day 11|Chunking 不是越碎越好:文件單位如何改變檢索
系列文
企業知識檢索與 RAG 工程:標註、微調、混合檢索、Rerank 與可重現評測 共 12 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言